DEGR: Dual Exploration-Driven Generative Re-Ranking for Adaptive Cross-Request Context Bridging
DEGR:双探索驱动的生成式重排序实现自适应跨请求上下文桥接
🧭 生成式重排序 · 探索性奖励模型 ★ 深度解读
JD.com
提出双探索生成式重排序,通过混合监督-强化学习与探索性奖励模型自适应平衡即时与探索价值,提升电商推荐效果
📌 工作参考价值(4 点)
- 探索性奖励模型设计:将“序列探索价值”量化为可学习奖励,结合上游 pCTR 动态调整权重,在低质量候选集时自动优先保留浏览潜力,可直接迁移到搜索推荐的重排阶段,尤其适用于冷启动或召回质量波动场景。
- 混合优化范式(SL + EDC + AR-ORPO):监督学习保持在线分布稳定性,探索多样性约束(EDC)缓解并行解码头的语义坍缩,AR-ORPO 利用奖励值作为软权重建构偏好列表替代硬排名,比标准 ORPO/DPO 更鲁棒,适合生成式推荐或 Agent 策略优化中的对齐训练。
- 并行解码与高效采样:多头并行生成 + 群组束搜索/启发式混合采样,将序列生成复杂度从 O(M) 降至 O(M/K),线上 TP99 仅增加 3.2ms,可直接用于低延迟的实时重排或对话式推荐生成。
- 跨请求上下文桥接思路:显式建模当前请求的探索行为对未来点击/浏览的影响,可在精排或重排阶段加入类似“未来请求增益”辅助任务,提升长期用户活跃度。